昨天知道 Prompt 會影響 AI 的回答
但我又突然想到一個問題
如果 AI 可以根據我們的問題產生看起來很合理的答案，那它會不會也有可能講錯？
而且最奇怪的是
它講錯的時候，有時候還可以講得超級有自信
甚至把不存在的資料、人物或事情講得好像真的一樣
這到底是為什麼？

一、AI 為什麼會回答錯？
前面提到 LLM 的主要工作之一，是根據上下文預測接下來可能出現的內容
所以它的目標其實不是「保證答案一定正確」
而是產生一個合理的回答
這兩件事情其實差很多
如果 AI 沒有足夠的資訊
它還是可能根據自己學到的語言規律，拼出一個看起來很合理的答案
所以有時候就會出現
「聽起來很對，但其實是錯的」

二、什麼是 AI 幻覺？
這種情況通常被稱為 AI Hallucination
中文常翻成「AI 幻覺」
簡單來說
就是 AI 產生了不存在或不正確的資訊
例如我問它一個不存在的研究
它可能還是會回答我研究的內容、作者和年份
甚至可以講得非常完整
問題就在於
這些東西可能根本不存在
這也是 AI 最容易讓人誤會的地方之一

三、為什麼它可以把假的東西講得這麼像真的？
因為 AI 不一定知道自己「不知道」
我們人類遇到不知道的問題時
可能會直接說
「我不知道」
但語言模型的運作方式並不是這樣簡單
它會根據目前的上下文
計算接下來比較可能出現什麼內容
所以如果某個答案在語言上看起來很合理
模型就可能把它產生出來
也就是說
AI 可以很會「說話」，但不代表它每一次都真的「知道」
這也是為什麼 AI 的語氣很有自信
不能直接當成答案正確的證明

四、那是不是 AI 完全不能相信？
也不是
AI 還是可以幫我們處理很多事情
例如整理資料、解釋概念、協助寫作、整理想法、產生程式碼
問題是
我們不能因為它講得很順，就直接相信所有內容
尤其是醫療、法律、金融、學術資料或最新消息這種需要高度準確的資訊
更應該確認來源
如果 AI 給了一個看起來很重要的資料
我們可以再去查官方網站、原始文件或可靠的資料來源

五、那 AI 要怎麼減少胡說八道？
其中一個方法就是讓 AI 能夠取得可靠的外部資訊
例如讓 AI 搜尋網路、查詢資料庫或讀取提供給它的文件
這樣它就不只是依靠原本訓練時學到的內容
而是可以根據新的資料來回答
另外
我們也可以在 Prompt 裡面要求它
「如果不確定就說不知道」
「不要自行捏造資料」
「請提供資料來源」
雖然這些方法都不能保證 AI 永遠不會出錯
但可以降低產生錯誤資訊的機會

六、所以 AI 講得很像真的，不代表它是真的
今天才發現
原來 AI 最可怕的地方
有時候不是它完全不會回答
而是它可以在錯誤的情況下
依然產生一個非常完整、非常自然的答案
所以看到 AI 回答得很順
我們反而更應該問自己
「這是真的嗎？」
而不是
「它講得這麼完整，應該是真的吧」
這也讓我開始覺得
使用 AI 的能力不只是會下 Prompt
還要知道什麼時候應該懷疑它

七、心得
今天知道原來 AI 不是一個永遠知道答案的機器
它可以產生很有用的內容
但也可能因為資訊不足、理解錯誤或模型本身的限制
產生看起來合理但其實錯誤的答案
所以以後看到 AI 講得超級肯定的時候
我可能反而會多想一下
「等等，這是真的嗎？」
這也讓我訓練到自己的批判性思考能力！

⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯

明日預告

但我又突然想到一個問題
如果 AI 可以理解文字，那它到底能不能理解我們看到的照片？
像我們丟一張照片給 AI
它為什麼可以告訴我照片裡面有什麼？
它到底是怎麼「看」懂圖片的？
那明天就來討論一下
「AI 怎麼看懂照片的呢？」